Ông (tên thật Lê Minh Sơn)[2] sinh 10 tháng 2 năm 1953, quê ở phường Tân Bình, thành phố Dĩ An, tỉnh Bình Dương.

Thời niên thiếu, ông vừa đi học, vừa bí mật làm giao liên cho Mặt trận Dân tộc Giải phóng miền Nam Việt Nam tại Dĩ An và Biên Hòa. Năm 1974, ông thoát ly gia đình, được phân về công tác tại Thị ủy Biên Hòa. Ngày 6 tháng 7 năm 1978, ông gia nhập Đảng Cộng sản Việt Nam và được kết nạp chính thức vào ngày 6 tháng 1 năm 1980.

Trong những năm sau đó, ông lần lượt giữ các chức vụ trong chính quyền TP Biên Hòa, như: Phó Chánh Văn phòng Ủy ban, Chánh Văn phòng Ủy ban, Ủy viên thư ký, Phó Chủ tịch Thường trực Ủy ban nhân dân thành phố. Đại biểu Hội đồng nhân dân thành phố (khóa II, III, IV, V, VI); Chủ tịch Hội đồng nhân dân thành phố; Ủy viên Ban Chấp hành, Thường vụ Thành ủy, Bí thư Thành ủy.

Từ năm 1994, ông được cử làm Ủy viên Ban Chấp hành Đảng bộ tỉnh Đồng Nai, Thường vụ Tỉnh ủy, Phó Bí thư, Chủ tịch Hội đồng nhân dân tỉnh khóa V (1994-1996), Chủ tịch Ủy ban nhân dân tỉnh khóa VI (1996-1999). Phó Bí thư thường trực Tỉnh ủy (2000). Ủy viên Ban Chấp hành Trung ương Đảng khóa IX (2001-2005), Bí thư Tỉnh ủy (2000-2004). Đại biểu Quốc hội khóa X (1997-2002), Ủy viên Ủy ban Kinh tế - Ngân sách Quốc hội.

Ông là Ủy viên Trung ương Đảng các khóa IX, X và XI. Từ tháng 10 năm 2004, ông được Ban Bí thư Trung ương Đảng phân công làm Phó Bí thư Thành ủy Thành phố Hồ Chí Minh, rồi được Ban Chấp hành Thành ủy bầu làm Phó Bí thư Thường trực Thành ủy. Ngày 13/07/2006, ông được Hội đồng nhân dân Thành phố Hồ Chí Minh bầu làm Chủ tịch Ủy ban nhân dân thành phố và giữ chức vụ trong 2 nhiệm kỳ.

Ngày 21-12-2015, Thủ tướng Chính phủ đã phê chuẩn việc miễn nhiệm chức vụ Chủ tịch UBND TP HCM nhiệm kỳ 2011 - 2016 đối với ông Quân. Người kế nhiệm ông sẽ là ông Nguyễn Thành Phong.[3]

Ngày 26 tháng 9 năm 2016, ông nhận quyết định nghỉ hưu.[4]